Recent visuolinguistic pre-trained models show promising progress on various end tasks such as image retrieval and video captioning. Yet, they fail miserably on the recently proposed Winoground dataset, which challenges models to match paired images and English captions, with items constructed to overlap lexically but differ in meaning (e.g., "there is a mug in some grass" vs. "there is some grass in a mug"). By annotating the dataset using new fine-grained tags, we show that solving the Winoground task requires not just compositional language understanding, but a host of other abilities like commonsense reasoning or locating small, out-of-focus objects in low-resolution images. In this paper, we identify the dataset's main challenges through a suite of experiments on related tasks (probing task, image retrieval task), data augmentation, and manual inspection of the dataset. Our analysis suggests that a main challenge in visuolinguistic models may lie in fusing visual and textual representations, rather than in compositional language understanding. We release our annotation and code at https://github.com/ajd12342/why-winoground-hard .
translated by 谷歌翻译
This paper considers adaptive radar electronic counter-counter measures (ECCM) to mitigate ECM by an adversarial jammer. Our ECCM approach models the jammer-radar interaction as a Principal Agent Problem (PAP), a popular economics framework for interaction between two entities with an information imbalance. In our setup, the radar does not know the jammer's utility. Instead, the radar learns the jammer's utility adaptively over time using inverse reinforcement learning. The radar's adaptive ECCM objective is two-fold (1) maximize its utility by solving the PAP, and (2) estimate the jammer's utility by observing its response. Our adaptive ECCM scheme uses deep ideas from revealed preference in micro-economics and principal agent problem in contract theory. Our numerical results show that, over time, our adaptive ECCM both identifies and mitigates the jammer's utility.
translated by 谷歌翻译
最近在生物医学中大型数据集的可用性激发了多种医疗保健应用的代表性学习方法的开发。尽管预测性能取得了进步，但这种方法的临床实用性在暴露于现实世界数据时受到限制。在这里，我们开发模型诊断措施，以检测部署过程中潜在的陷阱，而无需访问外部数据。具体而言，我们专注于通过数据转换建模电生理信号（EEG）的现实数据转移，并通过分析a）模型的潜在空间和b）预测性不确定性在这些变换下扩展了常规的基于任务的评估。我们使用公开可用的大规模临床EEG进行了多个EEG功能编码器和两个临床相关的下游任务进行实验。在这种实验环境中，我们的结果表明，在提出的数据转移下，潜在空间完整性和模型不确定性的度量可能有助于预测部署过程中的性能退化。
translated by 谷歌翻译
当结果具有高维度时（例如基因表达，脉冲反应，人类的面部）和协方差相对有限，对传统因果推理和监督学习方法的估算是一项具有挑战性的任务。在这种情况下，要在反事实治疗下构建一个人的结果，至关重要的是要利用其在协变量之上观察到的事实结果中包含的个人信息。我们提出了一个深层的变异贝叶斯框架，该框架严格整合了在反事实处理下进行结果构建的两个主要信息来源：一个来源是嵌入高维事实结果中的个体特征；另一个来源是实际收到这种利益疗法的相似受试者（具有相同协变量的受试者）的响应分布。
translated by 谷歌翻译
TSNE和UMAP是两个最流行的降低算法，因为它们的速度和可解释的低维嵌入。但是，尽管已经尝试改善TSNE的计算复杂性，但现有方法无法以UMAP的速度获得TSNE嵌入。在这项工作中，我们表明，通过将两种方法组合为单一方法，这确实是可能的。我们从理论上和实验上评估了TSNE和UMAP算法中参数的完整空间，并观察到单个参数（归一化）负责在它们之间切换。反过来，这意味着可以切换大多数算法差异而不会影响嵌入。我们讨论了这对基于UMAP框架的几种理论主张的含义，以及如何将它们与现有的TSNE解释调和。基于我们的分析，我们提出了一种新的降低性降低算法GDR，该算法结合了先前来自TSNE和UMAP的不兼容技术，并可以通过更改归一化来复制任何一种算法的结果。作为进一步的优势，GDR比可用的UMAP方法更快地执行优化，因此比可用的TSNE方法快的数量级。我们的实施是使用传统的UMAP和TSNE库的插件，可以在github.com/andrew-draganov/gidr-dun上找到。
translated by 谷歌翻译
二进制恒星经历各种相互作用和进化阶段，对于预测和解释观察到的特性至关重要。具有完整恒星结构和进化模拟的二元种群合成在计算上需要大量的质量转移序列。最近开发的二元种群综合代码Posydon结合了梅萨二元星模拟的网格，然后将其插值以模拟大型大型二进制文件。计算高密度直线网格的传统方法对于高维网格，不可扩展，这是一系列金属性，旋转和偏心率的范围。我们提出了一种新的活跃学习算法PSY-CRI，该算法使用数据收集过程中的机器学习来适应和迭代选择目标模拟以运行，从而导致自定义，高性能的训练集。我们在玩具问题上测试PSY-CRIS，发现所得的训练集比常规或随机采样网格所需的模拟更少以进行准确的分类和回归。我们进一步将psy-cris应用于构建Mesa模拟动态网格的目标问题，我们证明，即使没有微调，仅$ \ sim 1/4 $的模拟集也足以足以达到相同的分类精度。当针对目标应用程序优化算法参数时，我们预计将进一步增益。我们发现，仅对分类进行优化可能会导致回归中的绩效损失，反之亦然。降低产生网格的计算成本将使Posydon的未来版本涵盖更多的输入参数，同时保留插值精度。
translated by 谷歌翻译
近期目睹了机器学习算法系统的快速发展，尤其是加强学习，自然语言处理，计算机和机器人视觉，图像处理，语音和情感处理和理解。凭借机器学习模型，算法及其应用的越来越重要和相关性，并且随着更多创新使用的深度学习和人工智能的情况，目前的体积呈现出一些创新研究工作及其在现实世界中的应用，如股票交易，医疗和医疗保健系统和软件自动化。本书中的章节说明了如何设计，优化和部署机器学习和深度学习算法和模型。该体积对于高级毕业生和博士生，研究人员，大学教师，练习数据科学家和数据工程师，专业人士和顾问以及在机器学习，深度学习和人工智能的广泛领域。
translated by 谷歌翻译
图表表示学习方法为网络中的节点生成数值矢量表示，从而能够在标准机器学习模型中使用。这些方法旨在保留关系信息，使得图表中类似的节点在表示空间中彼此接近。相似性可以很大程度上基于两个概念之一：连接或结构作用。在节点结构角色重要的任务中，基于连接的方法表现出差的性能。最近的工作已经开始专注于学习方法的可扩展性，将数百万到数十亿节点和边缘的大规模图。许多无监督的节点表示学习算法无法缩放到大图，并且无法生成未经证明节点的节点表示。在这项工作中，我们提出了推理SiR-Gn，该模型在随机图上预先训练，然后快速计算节点表示，包括非常大的网络。我们证明该模型能够捕获节点的结构角色信息，并在未经网络上的节点和图形分类任务中显示出优异的性能。此外，我们观察到推理SIR-GN的可扩展性与大规模图表的最快电流方法相当。
translated by 谷歌翻译
Humans are spectacular reinforcement learners, constantly learning from and adjusting to experience and feedback. Unfortunately, this doesn't necessarily mean humans are fast learners. When tasks are challenging, learning can become unacceptably slow. Fortunately, humans do not have to learn tabula rasa, and learning speed can be greatly increased with learning aids. In this work we validate a new type of learning aid -- reward shaping for humans via inverse reinforcement learning (IRL). The goal of this aid is to increase the speed with which humans can learn good policies for specific tasks. Furthermore this approach compliments alternative machine learning techniques such as safety features that try to prevent individuals from making poor decisions. To achieve our results we first extend a well known IRL algorithm via kernel methods. Afterwards we conduct two human subjects experiments using an online game where players have limited time to learn a good policy. We show with statistical significance that players who receive our learning aid are able to approach desired policies more quickly than the control group.
translated by 谷歌翻译